El director ejecutivo de Meta, Mark Zuckerberg, dijo el martes (15 de septiembre) que la competencia y la responsabilidad dan a las empresas de IA razones suficientes para actuar individualmente en materia de seguridad, distanciándose aparentemente de los llamamientos de los líderes de las principales empresas de IA para una desaceleración coordinada en el desarrollo de la IA.
Estos comentarios ponen de manifiesto la división existente entre los ejecutivos del sector y las autoridades estadounidenses sobre cómo responder a las advertencias de que la tecnología avanza más rápido de lo que las empresas pueden controlarla, y algunos expertos del sector advierten de que supone una amenaza existencial para la humanidad.
El Sr. Zuckerberg, en una publicación de X el martes, dijo que cada laboratorio tiene la responsabilidad y el incentivo de avanzar al ritmo necesario para entrenar sus modelos de forma segura, y la capacidad de tomar sus propias medidas para garantizar que eso suceda.
Sus declaraciones se producen tres días después de que el director ejecutivo de Anthropic, Dario Amodei, instara a las empresas de IA a reducir el ritmo al que mejoran las capacidades de sus modelos, tras las advertencias de riesgo existencial emitidas por varios investigadores.
Sam Altman, director ejecutivo de la empresa rival OpenAI, y Elon Musk, de xAI, respaldaron públicamente la propuesta del Sr. Amodei en cuestión de horas.
LA ADMINISTRACIÓN SE OPONE A LA REGULACIÓN DE LA IA Y LA RALENTIZACIÓN
El lunes, el presidente estadounidense Donald Trump restó importancia a las preocupaciones sobre el potencial de la IA para causar daño, afirmando que Estados Unidos ya contaba con salvaguardias para esta tecnología y que China se beneficiaría de las dudas que se generaran sobre su desarrollo. La opinión de que las regulaciones perjudicarán la capacidad de las empresas estadounidenses para competir con sus homólogas chinas es compartida por ejecutivos del sector tecnológico, incluido el director ejecutivo de Nvidia, Jensen Huang.
«La confianza y la alineación se están convirtiendo rápidamente en las capacidades más importantes que diferenciarán a los agentes y los modelos», declaró Zuckerberg el martes. «Cualquier laboratorio que no se centre en la alineación se quedará atrás».
El martes, Zuckerberg también afirmó que los laboratorios tienen un fuerte incentivo para evitar que sus modelos causen daños, ya que de lo contrario se enfrentarían a una responsabilidad «significativa». Mencionó que Meta retrasó el lanzamiento de su agente de IA Muse a principios de este año para reforzar su seguridad.
«No exigimos a los demás que hicieran esto antes de hacerlo nosotros. Simplemente lo hicimos como parte de nuestro trabajo diario porque era claramente lo correcto para la gente y para nosotros», dijo.
Fuente: reuters
